登入
關鍵字
#GLM 5.2
官方認證
RexAA
前天 18:37
•
AMD跑GLM 5.2,成本只要輝達一半
GLM 5.2,用AMD晶片也能跑出來了,而且成本只要輝達的一半。 這是推理最佳化公司Wafer這周公佈的一組資料。 Wafer用AMD的MI355X晶片跑最新開源模型GLM 5.2,單節點吞吐做到2626 tok/s,單流吞吐也跑到了213 tok/s。 MI355X這次跑出的吞吐,是同代輝達旗艦B200的約八成,成本卻不到它的一半。
#輝達
#AMD
#GLM 5.2
61人
讚
留言
分享